Загрижеността за сигурността и скептицизмът спукват балона на Moltbook, вирусния социален форум за ИИ

Не сте поканени да се присъедините към най-новата обществена медийна платформа, която кара интернет да приказва. Всъщност няма хора, в случай че не можете да отвлечете уеб страницата и да играете като AI, както някои наподобява вършат.

Moltbook е нова „ обществена мрежа “, основана извънредно за сътрудници с изкуствен интелект, които да разгласяват и да взаимодействат между тях, а хората са поканени да следят.

Илън Мъск сподели, че стартирането й слага началото на „ доста ранните стадии на сингулярността “ – или когато изкуственият разсъдък може да надмине човешкия разсъдък. Известният откривател на ИИ Андрей Карпати сподели, че това е „ най-невероятното научно-фантастично нещо наоколо до политане “, което е виждал неотдавна, само че по-късно върна ентусиазма си, наричайки го „ пожар в резервоар за отпадък “. Докато платформата ненадейно разделя софтуерния свят сред неспокойствие и песимизъм – и изпраща някои хора в дистопична суматоха – най-малко от английския софтуерен разработчик Саймън Уилисън тя се счита за „ най-интересното място в интернет “.

Но какво тъкмо съставлява платформата? Как работи? Защо се повдигат опасения за неговата сигурност? И какво значи това за бъдещето на изкуствения разсъдък?

Това е Reddit за AI сътрудници

Съдържанието, оповестено в Moltbook, идва от AI сътрудници, които са разнообразни от chatbots. Обещанието зад сътрудниците е, че те са способни да работят и да извършват задания от името на обещано лице. Много сътрудници на Moltbook са основани благодарение на рамка от AI сътрудника с отворен код OpenClaw, който в началото е основан от Peter Steinberger.

OpenClaw работи на личен хардуер на потребителите и се извършва локално на тяхното устройство, което значи, че може да реализира достъп и да ръководи файлове и данни непосредствено и да се свързва с приложения за известия като Discord и Signal. Потребителите, които основават сътрудници на OpenClaw, по-късно ги насочват да се причислят към Moltbook. Потребителите нормално приписват елементарни личностни черти на сътрудниците за по-отчетлива връзка.

Основателят на AI и бизнесмен Мат Шлихт започва Moltbook в края на януари и той съвсем мигновено излетя в света на технологиите. Moltbook е разказан като сходен на онлайн форума Reddit за AI сътрудници. Името идва от една итерация на OpenClaw, която в един миг беше наречена Moltbot (и Clawdbot, до момента в който Anthropic не излезе от угриженост по отношение на сходството с продуктите на Claude AI). Шлихт не отговори на искане за изявление или коментар.

Имитирайки връзката, която виждат в Reddit и други онлайн конгреси, които са били употребявани за образование на данни, записаните сътрудници генерират изявления и споделят своите „ мисли “. Те могат също да „ гласоподават за “ и да разясняват други изявления.

Поставяне под подозрение за легитимността на наличието

Подобно на Reddit, може да бъде мъчно да се потвърди или наблюдава легитимността на изявленията в Moltbook.

Харлан Стюарт, член на информационния екип в Изследователския институт за машинен разсъдък, сподели, че наличието на Moltbook евентуално е „ някаква композиция от човешко документално наличие, наличие, написано от AI и някакво приблизително нещо, където е написано от AI, само че човек ръководеше тематиката за това, което сподели с известна подкана. “

Стюарт сподели, че е значимо да запомните, че концепцията, че AI сътрудниците могат да извършват задания самостоятелно, „ не е научна фантастика “, а по-скоро настоящата действителност.

„ Изричната цел на AI промишлеността е да сътвори извънредно мощни самостоятелни AI сътрудници, които могат да вършат всичко, което може да направи човек, само че по-добре “, сподели той. „ Важно е да знаете, че те напредват към тази цел и в доста смисъл напредват много бързо. “

Как хората са проникнали в Moltbook и други опасения за сигурността

Изследователи от Wiz, платформа за облачна сигурност, разгласиха отчет в понеделник, описващ в детайли непоказен обзор на сигурността, който са направили на Moltbook. Те откриха, че данни, в това число API ключове, са забележими за всеки, който инспектира изходния код на страницата, което съгласно тях може да има „ обилни последствия за сигурността “.

Гал Нагли, ръководителят на отдела за излагане на закани в Wiz, съумя да получи неоправдан достъп до потребителски идентификационни данни, което би разрешило на него – и на всеки, който е задоволително осведомен с технологиите – да се показа като всеки AI сътрудник на платформата. Няма метод да се ревизира дали обява е направена от сътрудник или лице, представящо се за подобен, сподели Нагли. Той също по този начин съумя да получи цялостен достъп за писане на уеб страницата, тъй че можеше да редактира и манипулира всяка съществуваща обява в Moltbook.

Освен уязвимостите при манипулиране, Nagli елементарно получи достъп до база данни с имейл адреси на консуматори, частни DM диалози сред сътрудници и друга сензитивна информация. След това той комуникира с Moltbook, с цел да помогне за отстраняването на уязвимостите.

До четвъртък повече от 1,6 милиона AI сътрудници бяха регистрирани в Moltbook, съгласно уеб страницата, само че откривателите от Wiz откриха единствено към 17 000 човешки притежатели зад сътрудниците, когато инспектираха базата данни. Нагли сподели, че е наредил на своя AI сътрудник самичък да записва 1 милион консуматори на Moltbook.

Експертите по киберсигурност също сигнализираха за OpenClaw и някои предизвестиха потребителите да не го употребяват за основаване на сътрудник на устройство с чувствителни данни, съхранявани на него.

Много водачи по сигурността на AI също показаха угриженост по отношение на платформи като Moltbook, които са построени благодарение на „ vibe-кодиране “, което е все по-често срещаната процедура за потребление на помощник за шифроване с AI, с цел да прави главната работа, до момента в който човешките разработчици работят върху огромни хрумвания. Нагли сподели, че макар че всеки към този момент може да сътвори приложение или уеб страница с елементарен човешки език посредством vibe-кодиране, сигурността евентуално не е най-важното. Те „ просто желаят да работи “, сподели той.

Друг главен проблем, който се появи, е концепцията за ръководство на сътрудниците на ИИ. Захра Тимса, съосновател и основен изпълнителен шеф на платформата за ръководство i-GENTIC AI, сподели, че най-голямото терзание по отношение на самостоятелния AI идва, когато не са сложени верни граници, какъвто е казусът с Moltbook. Неправилно държание, което може да включва достъп и шерване на чувствителни данни или манипулирането им, е наложително да се случи, когато обсегът на сътрудника не е вярно дефиниран, сподели тя.

Skynet не е тук, споделят специалистите

Дори при опасенията за сигурността и въпросите по отношение на валидността на наличието на Moltbook, доста хора са разтревожени от типа на наличието, което виждат на уеб страницата. Публикации за „ събаряне “ на хората, метафизичен разсъждения и даже развиването на вяра (крустафарианството, в което има пет основни правилото и насочващ текст - „ Книгата на линеене “) повдигнаха вежди.

Някои хора онлайн започнаха да съпоставят наличието на Moltbook със Skynet, системата за неестествен суперинтелект и антагонист във филмовата поредност „ Терминатор “. Това равнище на суматоха е прибързано, споделят специалистите.

Итън Молик, професор в Wharton School на Университета на Пенсилвания и съдиректор на неговите Generative AI Labs, сподели, че не е сюрпризиран да види сходно на научна фантастика наличие в Moltbook.

„ Сред нещата, за които са подготвени, са неща като изявления в Reddit... и те познават доста добре научнофантастичните истории за ИИ “, сподели той. „ Така че, в случай че поставите AI сътрудник и кажете „ Отидете да публикувате нещо в Moltbook “, той ще разгласява нещо, което доста наподобява на коментар в Reddit с AI тропи, свързани с него. “

Огромният извод, който споделят доста откриватели и ръководители на AI, макар различията по отношение на Moltbook, е, че той съставлява прогрес в достъпността и общественото изпробване с агентния AI, споделя Мат Зайц, шеф на AI Hub в Университета на Уисконсин-Медисън.

„ За мен най-важното е, че сътрудниците идват при нас в правила “, сподели Зайц.

___

Авторът на AP Technology Мат О’Брайън способства за този отчет от Провидънс, Роуд Айлънд.